28. júla 2025 • 2m čítanie

Takto si EÚ predstavuje reguláciu AI

EÚ má jasno v regulácii umelej inteligencii.

Odporcovia nebudú nadšení z akejkoľvek regulácie, no toto môže mať aj pozitívny dopad na možnosti tejto technológie. Európska únia chce, aby použitie AI prinieslo lepšiu zdravotnú starostlivosť, bezpečnejšiu a čistejšiu dopravu a lacnejšiu energiu.

Prvý rámec predstavy novej regulácie navrhla v apríli 2021. Zákon o umelej inteligencii bude obsahovať hodnotiace riziká, na základe ktorých budú systémy AI posudzované. V prvom rade má ísť najmä o bezpečnosť. V júni prijala prvé pravidlá a zákon má platiť do 24 mesiacov. Výnimkou je zákaz AI, ktorá predstavuje neprijateľné riziká – ten platí od 2. februára tohto roku.

AI a lekárske analýzy

Používatelia využívajú AI aj na hodnotenie lekárskych správ a iných citlivých a rizikových údajoch. AI sa ale môže zmýliť, pretože nezoberie do úvahy subjektívne hodnotenie používateľa – analyzuje iba správu a bez doplnkových informácií. To vedie k jednému alebo druhému extrému – buď prehnane vystraší alebo odpovie, že o nič nejde a rizikový stav pacienta sa môže zanedbať.

V Únii zamietnuté

Medzi nepovolené použitie AI je pri kognitívno-behaviorálnej manipulácii s ľuďmi. Typicky napríklad nevhodné správanie chatbotov alebo detských hračiek nabádajúce na nevhodné správanie detí. Zamietnuté má byť aj využitie na vytváranie sociálneho skóre ľudí alebo napríklad biometrické identifikovanie ľudí (napríklad rozpoznávanie tváre na verejných priestranstvách).

AI nástroje s vysokým rizikom

Tu patria výrobky, ktoré môžu ovplyvňovať riziko základných práv. Patria sem napríklad hračky, zdravotnícke potreby, výťahy, letectvo, autá. Systém v tomto rizikovom faktore je napríklad použitie pri riadení kritickej infraštruktúry, zamestnanosti, presadzovania práve, sledovanie migrácie obyvateľov apod.

Vygenerované AI

EÚ chce transparentnosť v procese vytvárania obsahu a preto bude takýto obsah označený ako vygenerovaný AI. Podobne sa to bude týkať aj modifikovaného obsahu či už pôjde o video, obrázky alebo hlas.

Zdroj: Europa.eu

Prečítajte si aj:

Umelá inteligencia

Nahlásiť chybu

Redaktor

Michal Reiter

Sledujem aktuálne trendy z oblasti technológií, bezpečnosti, súkromia a dôveryhodnosti diania v digitálnej scéne. Mojimi rukami prešlo stovky produktov od notebookov, smartfónov cez slúchadlá až po špecializovaný hardvér. Prinášam zrozumiteľný pohľad na výzvy a problémy, ktoré so sebou prináša digitalizácia a dianie vo svete IT. Hľadaniu odpovedí v tejto oblasti sa venujem už viac ako 20 rokov.